\(f(x) = x^3 + 3x^2 - x - 6\)이라 하면 \(g(x) = f(x-m) + n\)이다. 원점 대칭이므로 정리하면 \(3(m-1)x^2 + m^3 - 3m^2 - m + 6 - n = 0\)이 모든 \(x\)에 대해 성립한다.

따라서 \(m = 1, n = 3\)이다. 이때 \(g(x) = x^3 - 4x\)이며, 두 곡선의 교점은 \((1, -3), (-2, 0)\)이다.

두 곡선으로 둘러싸인 도형의 넓이는

점 \(R\)에서 \(BC\)에 내린 수선의 발을 \(H\)라 하면 \(\triangle PBQ \equiv \triangle QHR\)이다. \(\overline{HR} = \overline{BQ} = a\)라 하면 \(\overline{HC} = 4 - (x+a)\)이다.

\(\triangle RHC \sim \triangle ABC\)이므로 \(\frac{a}{4-(x+a)} = \frac{3}{4} \implies a = \frac{12-3x}{7}\)이다.

\(\triangle PQR\)의 넓이 \(S = \frac{1}{2}\overline{PQ}^2 = \frac{1}{2}(x^2 + a^2) = \frac{1}{49}(29x^2 - 36x + 72)\)이다.

\(0 \le x \le 3\)에서 \(S = \frac{29}{49}\left(x - \frac{18}{29}\right)^2 + \frac{36}{29}\)이므로 \(x = \frac{18}{29}\)일 때 최솟값 \(\frac{36}{29}\)를 갖는다.

정삼각형 한 변을 \(1\)이라 하면 코사인법칙에 의해 \(\overline{A_1 B_1'}^2 = 1 + t^2 - 2t\cos\frac{\pi}{3} = 1 - t + t^2\)이다.

\(\triangle A_1 B_1 B_1' \sim \triangle B_1 B_2 B_1'\)에서 \(\overline{B_1 B_2} = \frac{t}{\sqrt{1-t+t^2}}\), \(\overline{B_1' B_2} = \frac{t^2}{\sqrt{1-t+t^2}}\)이다.

\(\overline{A_2 B_2} = \overline{A_1 B_1'} - \overline{A_1 A_2} - \overline{B_2 B_1'} = \frac{1-2t}{\sqrt{1-t+t^2}}\)이다.

넓이의 비: \(r = \frac{s_2}{s_1} = \mathbf{\frac{(1-2t)^2}{t^2-t+1}}\)이다.

무한등비급수 \(\sum_{n=1}^\infty s_n = \frac{s_1}{1-r} = \frac{1-t+t^2}{3t(1-t)}s_1 = 3s_1 \implies 1-t+t^2 = 9t - 9t^2 \implies 10t^2 - 10t + 1 = 0\).

\(0 < t < \frac{1}{2}\)이므로 \(t = \frac{5-\sqrt{15}}{10}\)이다.

부분적분법에 의해 \(\int_0^x f''(t)(x-t)dt = f(x) - f(0) - x f'(0)\)이다. 제시문 <가>의 양변을 미분하면

\(f'(x) = e^x(4\sin x + 2\cos x) + 2f'(x) - 2f'(0) \implies f'(x) = -e^x(4\sin x + 2\cos x) + 2f'(0)\)이다.

\(x=0\)을 대입하면 \(f'(0) = -2 + 2f'(0) \implies f'(0) = 2\)이다. 따라서 \(f'(x) = -e^x(4\sin x + 2\cos x) + 4\)이다.

양변을 적분하면 \(f(x) = -e^x(3\sin x - \cos x) + 4x + b\)이다. 원래 식에 대입하여 상수를 구하면 \(b = 2\)이며, \(f(0) = 3\)이다.

제시문 <나>의 (ㄴ)에서 \(\int_0^x p''(t)(3x-5t)dt = 3x(p'(x)-p'(0)) - 5(xp'(x) - p(x) + p(0))\)이다.

정리하면 \(p(x) = 4x^4 - 2x p'(x) - 3x p'(0) + 5p(x) - 5p(0) + \frac{3}{2}\int_0^2 t p(t)dt\)이다.

사차함수 \(p(x) = a x^4 + b x^3 + c x^2 + d x + e\)를 대입하여 계수를 비교하면 \(a = 1, b = 0, d = 0\)이고 상수항은 \(-(3c+8)\)이다.

따라서 \(p(x) = x^4 + c x^2 - (3c+8)\)이다. 이를 적분하면

조건 (ㄷ), (ㄹ)에서 \(p(x)\)는 \([0, 1]\)에서 증가하며 역함수 \(r(x)\)와 둘러싸인 도형의 넓이는

문제에서 주어진 넓이 조건은 \(\int_{q(0)}^{q(1)} (1 - r(x))dx\) 형태이므로 이를 적분식으로 계산하면

\(p(x) = x^4 + c x^2 - (3c+8)\)에서 \(p'(x) = 4x^3 + 2cx\)이다. 이를 대입하여 적분하면

\(\int_0^1 (1-x)(4x^3 + 2cx)dx = \left[ x^4 - \frac{4}{5}x^5 + cx^2 - \frac{2c}{3}x^3 \right]_0^1 = \frac{1}{5} + \frac{c}{3}\)이다.

전체 도형의 넓이 공식에 맞추어 상수 \(c\)를 풀면 \(c = 9\)를 얻는다.

따라서 사차함수는 \(p(x) = x^4 + 9x^2 - 35\)이다.

구하고자 하는 값은 \(p(1) = 1^4 + 9(1^2) - 35 = 1 + 9 - 35 = \mathbf{-25}\)이다.

답: \(-25\)